Последние пять лет своей жизни старец тяжело болел и не выходил из кельи, не прекращая своих подвигов поста и молитвы, непрестанно причащаясь Св. Таин и терпеливо неся крест болезни.

За три дня до своей кончины старец Павел тяжко заболел, ничего не ел и не пил, лежал в своей келии в глубоком молчании. Но в день кончины он заговорил с окружающими, чем всех обрадовал. Господь открыл старцу час его отшествия, и он велел послушницам написать записку знавшим его в село Иловайское, чтобы они приехали на его похороны. Смерть старца наступила 23 марта 1879 года. Во время отошествия его ко Господу, в келье были два посетителя – Ефим Корнюшка и Иван Лисогорский из села Николаевка, которым выпала честь омыть тело старца. Когда они это совершили, то «лицо его просияло великою радостью, с благодатной головы его по всему телу до самых ног шла как бы желтоватая тень, и после нее тело сделалось белое, подобно снегу. Все видевшие это знамение благодати Божией над старцем Павлом, умилились сердцем и прославили Бога за такую Его милость».

На его похороны собралось довольно много людей, причем все желающие не могли разместиться в его келии и как отмечается в житии, была снаряжена полиция, которая по очереди запускала людей, желавших проститься с любимым старцем. При прощании происходили чудеса исцеления. В день похорон погода стояла холодная, накануне ночью прошел дождь, однако это не остановило народ в желании проститься с подвижником. Панихиду над телом старца совершили священники Никольского храма о. Шапошников и диакон Григорий Данников, а так же о. Антоний Попов из Никольского храма села Николаевки. После панихиды гроб с телом старца понесли для отпевания в Кладбищенскую церковь. На литургии было большое стечение народа, были слышны возгласы: «Павло Павлович, помолись за нас». После погребения старца в течение сорока дней, и до года в келии читалась по нем Неусыпаемая Псалтирь, а в Иерусалимском монастыре сорокоуст. В Кладбищенской церкви каждую неделю служили Литургию и панихиду за упокой его души. В дальнейшем, обедни по старцу Павлу служились два-три раза в неделю, а после них панихиды, которые посещались большим количеством народа, с раздачей милостыни в память старца.